Захранвани с изкуствен интелект полицейски телесни камери, които някога са били табу, се тестват в „списъка за наблюдение“ на канадския град

Полицейските телесни камери, оборудвани с изкуствен интелект, са подготвени да разпознават лицата на към 7000 души в листата за наблюдаване с „ висок риск “ в канадския град Едмънтън, тест онлайн дали технологията за лицево различаване, отбягвана като прекомерно натрапчива, може да има място в полицията в цяла Северна Америка.

Но шест години откакто водещият производител на телесни камери Axon Enterprise, Inc. съобщи, че полицейското потребление на технология за лицево различаване основава съществени етични опасения, пилотният план — пуснат предходната седмица — буди паника надалеч оттатък Едмънтън, най-северният град на континента с повече от 1 милион души.

Бивш ръководител на борда по нравственос на ИИ на Axon, който накара компанията да се откаже краткотрайно от разпознаването на лица през 2019 година, сподели пред Associated Press, че е угрижен, че основаната в Аризона компания върви напред без задоволително обществен спор, тестване и експертна инспекция по отношение на публичните опасности и последствията за поверителността.

„ От значително значение е да не се употребяват тези технологии, които имат доста действителни разноски и опасности, в случай че няма някаква ясна индикация за изгодите “, сподели някогашният ръководител на борда Бари Фридман, в този момент професор по право в Нюйоркския университет.

Основателят и основен изпълнителен шеф на Axon Рик Смит твърди, че пилотният план в Едмънтън не е стартиране на артикул, а „ изследване на терен в ранен стадий “, което ще оцени по какъв начин действа технологията и ще разкрие защитните ограничения, нужни за виновното й потребление.

„ Чрез тестване в действителни условия отвън Съединени американски щати, ние можем да съберем самостоятелни прозрения, да укрепим рамките за контрол и да използван тези познания към бъдещи оценки, в това число в Съединените щати “, написа Смит в обява в блог.

Пилотът има за цел да помогне на патрулните чиновници в Едмънтън да станат по-безопасни, като разреши на техните носени на тялото камери да откриват всеки, който управляващите класифицират като притежаващ „ байрак или внимание “ за категории като като „ принудител или нападател; въоръжен и опасен; оръжие; риск от бягство; и високорисков извършител “, сподели Кърт Мартин, изпълняващ длъжността шеф на полицейската работа в Едмънтън. Досега в този лист за наблюдаване има 6341 души, сподели Мартин на конференция на 2 декември. Отделен лист за наблюдаване прибавя 724 души, които имат най-малко една сериозна наказателна заповед, сподели той.

„ Наистина желаеме да се уверим, че е ориентиран по този начин, че това да са хора със съществени нарушавания “, сподели Ан-Ли Кук, шеф на виновния AI на Axon.

Ако пилотният план се разшири, това може да има огромен резултат върху полицията по целия свят. Axon, обществено търгувана компания, известна най-много с създаването на Taser, е преобладаващият снабдител на телесни камери в Съединени американски щати и от ден на ден ги дава на полицейските служби в Канада и другаде. Миналата година Axon победи най-близкия си съперник, основаната в Чикаго Motorola Solutions, в опит да продаде телесни камери на Кралската канадска конна полиция.

Motorola сподели в изказване, че също по този начин има способността да интегрира технология за лицево различаване в полицейски телесни камери, само че въз основа на своите етични правила „ съзнателно се е въздържала от внедряването на тази функционалност за самодейна идентификация “. Не се изключва потреблението му в бъдеще.

Правителството на Алберта през 2023 година наложи камери за тяло за всички полицейски организации в провинцията, в това число нейната столица Едмънтън, описвайки го като мярка за бистрота за документиране на полицейските взаимоотношения, събиране на по-добри доказателства и понижаване на периодите за разрешаване на следствия и тъжби.

Въпреки че доста общности в Съединени американски щати също приветстваха камерите за тяло като инструмент за отчетност, вероятността за различаване на лица в действително време идентифицирането на хора на публични места е непопулярно в целия политически набор. Неприятната реакция от страна на бранителите на гражданските свободи и по-широкият диалог за расовата неправда помогнаха да накарат фирмите Axon и Big Tech да спрат на пауза продажбите на програмен продукт за лицево различаване на полицията.

Сред най-големите терзания бяха изследванията, които демонстрират, че технологията е неправилна, демонстрирайки пристрастни резултати по раса, пол и възраст. Освен това не съпостави лица толкоз тъкмо във видео излъчвания в действително време, колкото на лица, позиращи за идентификационни карти или фотоси на полицейски чаши.

Няколко американски щата и десетки градове се пробваха да лимитират полицейското потребление на различаване на лица, макар че администрацията на президента Доналд Тръмп в този момент се пробва да блокира или обезсърчи щатите да контролират AI.

Европейският съюз забрани полицейската технология в действително време за обществено сканиране на лица в блока от 27 страни, с изключение на когато се употребява за съществени закононарушения като похищение или тероризъм.

Но в Обединеното кралство, което към този момент не е част от Европейски Съюз, управляващите започнаха да тестват технологията по улиците на Лондон преди десетилетие и я използваха, с цел да извършат 1300 ареста през последните две години. Правителството обмисля разширение на потреблението му в цялата страна.

Много детайлности за водача на Едмънтън не са обществено оповестени. Axon не прави собствен личен AI модел за различаване на лица, само че отхвърли да каже кой снабдител на трета страна употребява.

Полицията в Едмънтън споделя, че пилотният план ще продължи до края на декември и единствено през светлата част на деня.

„ Очевидно тук се стъмва много рано “, сподели Мартин. „ Условията на осветяване, нашите ниски температури през зимата, всички тези неща ще въздействат върху това, което гледаме във връзка с сполучливото доказателство за концепцията. “

Мартин сподели, че към 50 чиновници, пилотиращи технологията, няма да знаят дали софтуерът за лицево различаване е съвпаднал. Резултатите ще бъдат оценени по-късно в станцията. В бъдеще обаче това може да помогне на полицията да открие дали наоколо има евентуално рисков човек, с цел да могат да потърсят помощ, сподели Мартин.

Това би трябвало да се случи единствено в случай че чиновниците са почнали следствие или дават отговор на позвъняване, а не просто до момента в който се разхождат из тълпата. Мартин сподели, че чиновниците, отговарящи на повикване, могат да превключат камерите си от въздържан към деен режим на запис с изображения с по-висока разграничителна дарба.

„ Ние в действителност желаеме да зачитаме правата на хората и техните ползи за дискретност “, сподели Мартин.

Офисът на комисаря по информацията и поверителността на Алберта Даян Маклауд сподели, че е получила оценка на въздействието върху поверителността от полицията в Едмънтън на 2 декември, същия ден, когато Axon и полицейски чиновници оповестиха програмата. Службата сподели в петък, че в този момент работи за преразглеждане на оценката, условие за планове, които събират „ високо чувствителни “ персонални данни.

Професорът по криминология в Университета на Алберта Темитоп Ориола сподели, че не е сюрпризиран, че градът опитва с лицево различаване онлайн, като се има поради, че технологията към този момент е повсеместна в сигурността на летищата и други среди.

„ Едмънтън е лаборатория за този инструмент “, сподели Ориола. „ Може да се окаже усъвършенстване, само че не знаем това сигурно. “

Ориола сподели, че полицейската работа е имала от време на време „ мразовити “ връзки със своите локални и чернокожи поданици, изключително след съдбовната полицейска пукотевица по член на южносуданската общественост предходната година и остава да се види дали технологията за лицево различаване прави полицията по-безопасна или усъвършенства взаимоотношението с обществеността.

Axon се сблъскваше с противоположен удар за внедряването на своите технологии в предишното, както през 2022 година, когато Фридман и седем други членове на борда по нравственос на AI на Axon подадоха оставка в символ на митинг поради опасения по отношение на дрон, оборудван с Taser.

В годините, откогато Axon избра срещу разпознаването на лица, Смит, основен изпълнителен шеф, споделя, че компанията „ продължава да управлява, лабораторно проучване “ на технология, която „ стана доста по-точна “ и към този момент е подготвена за експериментиране в действителния свят.

Но Axon призна в изказване до AP, че всички системи за лицево различаване се въздействат от „ фактори като разстояние, осветяване и ъгъл, които могат да повлияят непропорционално на точността за хора с по-тъмна кожа. “

Всяко съвпадане изисква обзор от човек, сподели Axon, и част от неговото тестване също е „ научаване какво образование и контрол би трябвало да имат хората, проверяващи намаляване на известните опасности. “

Фридман сподели, че Axon би трябвало да разкрие тези оценки. Той би желал да види повече доказателства, че разпознаването на лица се е подобрило, откакто неговият ръб заключи, че не е задоволително надеждно, с цел да оправдае етично потреблението му в полицейските камери.

Фридман сподели, че също по този начин е угрижен за това, че полицейските организации дават зелена светлина за потреблението на технологията без разискване от локалните законодатели и строги научни проби.

„ Това решение не би трябвало да се взема просто от полицейските организации и сигурно не от продавачите “, сподели той. " Пилотът е страхотна концепция. Но би трябвало да има бистрота, отчетност... Нищо от това не е тук. Те просто не престават напред. Намериха организация, която желае да продължи напред, и те просто не престават напред. "

—-

Авторът на AP Келвин Чан в Лондон способства за този отчет.